Trong thế kỷ 19 người ta tìm được cách bắn đạn trái phá góc thấp, nhồi nhiều thuốc nổ, thay thế cho các pháo đập đất howitzer, từ đó sinh ra nhiều loại lựu pháo. Sơn pháo cũng vai trò như pháo dã chiến (field gun) trước thế kỷ 19, loại súng di theo trận đánh hỗ trợ bán sát (ngày nay từ này dùng chỉ pháo hỗ trợ bắn gián tiếp, lựu pháo nòng dài). Điều này rất quan trọng trong thời thông tin còn chậm và ít.

Sơn pháo chỉ được dùng nhiều đến Thế chiến thứ nhất, sau đó các nước tiên tiến ít sản xuất. Những phát triển trực tiếp sau của sơn pháo là lựu pháo nòng ngắn và súng cối. Người ta cũng dùng nhiều súng không giật cho những vị trí của sơn pháo trước đây.

Một số sơn pháo vẫn được dùng trong Thế chiến thứ hai nhưng rất kém. Quân đội Nhân dân Việt Nam sử dụng sơn pháo rất nhiều trong Chiến tranh Đông Dương. Lúc đó sơn pháo thường dùng bắn thẳng phá công sự vững chắc. Có lẽ vì vậy, sơn pháo vẫn được trung bầy trong Bảo tàng lịch sử quân sự Việt Nam, bên cạnh những súng cùng thời.

Khẩu sơn pháo đầu tiên Quân đội Nhân dân Việt Nam sử dụng là khẩu tăng cường cho Pháo đài Láng nửa tháng sau ngày Toàn quốc kháng chiến, pháo 75 mm nhẹ có một ô tô kéo. Sau này, khẩu pháo bị bỏ lại khi rút đi. Đến cuối Kháng chiến chống Pháp, Quân đội Nhân dân Việt Nam có khá nhiều sơn pháo các loại, lúc đó sơn pháo là loại pháo chủ yếu.

Sơn pháo của Quân đội Nhân dân Việt Nam được loại bỏ sau Hòa bình lập lại, một phần vì nhược điểm nòng quá ngắn, một phần vì đây là pháo dùng đạn phương Tây, rất khó cung cấp.